เจ้าชายคาร์ล เอเทล ฟรีดิช เซฟีรินัส ลุดวิกแห่งโฮเฮนโซลเลิร์น-ซิกมาริงเง็น ประสูติ ณ เมืองซิกมาริงเง็น เป็นพระราชโอรสพระองค์ที่สองของเจ้าชายคาร์ล แอนตันแห่งโฮเฮนโซลเลิร์น-ซิกมาริงเง็นกับเจ้าหญิงโยเซฟินแห่งบาเดิน หลังจากสำเร็จการศึกษาในระดับประถมศึกษา เจ้าชายคาร์ลทรงเข้าศึกษาที่โรงเรียนคาเด็ทในเมืองมึนสเตอร์ ในปีพ.ศ. 2400 ทรงเข้าศึกษาในโรงเรียนวิชาการทหารปืนใหญ่ที่กรุงเบอร์ลิน ในปีพ.ศ. 2409 (เมื่อพระองค์ได้ตอบรับราชบัลลังก์โรมาเนียแล้ว) เจ้าชายทรงรับราชการในทหารปรัสเซียและทรงร่วมรบในสงครามชเลสวิชครั้งที่สอง โดยทรงร่วมกับฝ่ายปรัสเซียในการรบกับเดนมาร์ก โดยเฉพาะอย่างยิ่งในการโจมตีเมืองเฟรเดอริเซียและดิบโบล์ของเดนมาร์ก พระองค์ได้สะสมประสบการณ์จากการรบในสมรภูมิเหล่านี้ซึ่งจะเป็นประโยชน์ต่อพระองค์ในการบัญชาการรบในสงครามรัสเซีย-ตุรกี(1877 - 1878)

ถึงแม้ว่าพระวรกายของพระองค์จะค่อนข้างผอมและไม่สูงมาก พระองค์กลับได้รับการสรรเสริญว่าทรงเป็นชายชาติทหาร, สุขภาพดีเยี่ยม, มีระเบียบวินัยและเป็นนักการเมืองที่ดีโดยมีแนวคิดในทางเสรี พระองค์สามารถตรัสภาษายุโรปได้หลายภาษา พระราชวงศ์ของพระองค์มีความสัมพันธ์อย่างใกล้ชิดกับราชวงศ์โบนาปาร์ต (พระอัยยิกาผ่ายพระชนนีของพระองค์ทรงมาจากราชสกุลโบอาร์แนคือ สเตฟานี เดอ โบอาร์แนซึ่งเป็นพระขนิษฐาในโฌเซฟีน เดอ โบอาร์แน และพระอัยยิกาฝ่ายพระชนกของพระองค์ทรงมาจากตระกูลมูว์ราคือ เจ้าหญิงมารี อังตัวแนตต์ มูว์ราซึ่งเป็นพระนัดดาในฌออากีม มูว์รา กษัตริย์แห่งเนเปิลส์) พระราชวงศ์ของพระองค์จึงมีความสัมพันธ์ที่ดีกับจักรพรรดินโปเลียนที่ 3 โรมาเนียในตอนนั้นอยู่ภายใต้วัฒนธรรมฝรั่งเศสและคำแนะนำของจักรพรรดินโปเลียนที่ 3 เกี่ยวกับเจ้าชายคาร์ลแห่งโฮเฮนโซลเลิร์น-ซิกมาริงเง็น ซึ่งทรงถูกจับตามองโดยนักการเมืองโรมาเนียในสายพระโลหิตจากปรัสเซีย เอียน ซี. บราเทียนูนักการเมืองชาวโรมาเนียได้ส่งข้อความไปยังเจ้าชายคาร์ลและะพระราชวงศ์เกี่ยวกับความเป็นไปได้ที่จะสถาปนาพระองค์ในราชบัลลังก์องค์อธิปัตย์แห่งโรมาเนีย